((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Meta présente un outil de détection de l'IA ainsi qu'un nouveau modèle de génération d'images
* Reuters constate que l'outil ne détecte pas 55 % des images générées par IA et recadrées par Muse Image
* Selon les experts, la détection par filigrane présente des limites
par Hardik Vyas et Seana Davis
Un nouvel outil de détection des images générées par IA de Meta META.O , que l'entreprise technologique a présenté cette semaine en avant-première parallèlement au lancement de son modèlede génération d'images , Muse Image, n'a pas réussi à identifier certaines de ses propres images générées par IA une fois celles-ci recadrées, selon une analyse de Reuters. Cette découverte met en évidence les difficultés liées à la vérification des images générées par l’IA après des modifications courantes, une limite qui pourrait compliquer l’identification des deepfakes en ligne au cours d’une année électorale chargée, marquée notamment par les élections de mi-mandat aux États-Unis. Dans une analyse portant sur 40 images générées à l’aide de Muse Image, Reuters a constaté que l’outil de détection avait identifié toutes les images originales générées par l’IA, mais n’avait pas réussi à identifier 55 % de ces mêmes images après qu’elles eurent été recadrées à environ un tiers ou la moitié de leur taille d’origine. Sur son site web , Meta indique que l’outil de détection en avant-première est capable d’identifier ses propres images générées par IA, même si elles sont recadrées, grâce à un système de filigrane invisible appelé « Content Seal », intégré à chaque image générée par Muse Image et conçu pour aider les utilisateurs à vérifier si celle-ci a bien été créée par les modèles d’IA de Meta.
Interrogée sur les résultats de l’analyse de Reuters concernant cet outil de détection, Meta a précisé qu’il s’agissait d’une version préliminaire. L’entreprise a expliqué que le filigrane était conçu pour rester intact après des retouches courantes, mais que le signal pouvait être perdu si une image était fortement recadrée. Les entreprises technologiques concurrentes Google et OpenAI ont averti que leurs propres outils de détection n’étaient pas infaillibles face aux techniques de modification d’images. En mars, le Conseil de surveillancede Meta , un organe composé d’experts qui prend des décisions contraignantes et émet des recommandations sur les questions de contenu sur l’ensemble des plateformes de réseaux sociaux de l’entreprise, a appelé la société à redoubler d’efforts pour lutter contre la « prolifération de contenus trompeurs générés par l’IA » sur ses plateformes et à investir dans des outils de détection plus performants.
Siwei Lyu, professeur d’informatique à l’Université d’État de New York à Buffalo, qui mène des recherches sur la criminalistique des images par IA, a déclaré qu’il n’avait pas évalué l’outil de Meta, mais que les systèmes basés sur les filigranes présentaient des limites. « Les méthodes basées sur les filigranes peuvent être très efficaces lorsque le filigrane reste intact, mais toute modification qui supprime ou affaiblit le signal intégré — comme le recadrage, le redimensionnement, une compression importante ou le montage — peut réduire leur efficacité, selon la manière dont le filigrane est conçu », a expliqué M. Lyu . Sarah Barrington, chercheuse en IA et doctorante à la School of Information de l’Université de Californie à Berkeley, a déclaré que le tatouage numérique était prometteur pour l’avenir des contenus générés par l’IA, mais qu’il avait ses limites.
« À l’instar de nombreuses mesures préventives de cybersécurité ou de sécurité physique, ce n’est peut-être pas une solution infaillible, mais même si nous ne détectons que 90 % des cas, cela représente tout de même un grand pas en avant par rapport à 0 », a-t-elle déclaré.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer